AskStream: When and What to Ask Proactively under Uncertainty in Streaming Video Understanding
AskStream:流式视频理解不确定性下何时与如何主动提问
🧭 多模态流式视频主动交互智能体
Institute of Automation, Chinese Academy of Sciences · Beijing Academy of Artificial Intelligence · Hunan Normal University · Minzu University of China
引入主动 ask 动作的流式视频理解基准,评估模型在视频与用户不确定性下的提问与回答策略
📌 工作参考价值(4 点)
- 在电商直播、视频客服等流式交互场景中,可把 Agent 的动作空间从 wait/answer 扩展为 wait/ask/answer:当模型对用户意图或视频内容置信度低时,主动发起澄清问题,避免停止等待或生成幻觉答案。
- 参考 AskStream 的帧级时间窗标注,把“何时提问”建模为序列决策问题;在真实流式视频数据上标注每一帧或每一时间窗应执行 wait/ask/answer,用于训练主动交互策略。
- 设计类似 Ask-F1 的评估指标,同时考虑回答质量、提问代价与等待收益,而不只看最终答案准确率;在推荐/广告交互中可迁移为“澄清问题的性价比”,平衡打扰率与信息增益。
- 落地成本提示:该基准集中于视频理解,工业界需先构建领域内不确定性标注,但可复用其问题定义与评测框架来低成本启动。